Obiettivi di Apprendimento
- Distinguere tra il fine-tuning completo e i paradigmi di fine-tuning efficienti per i parametri (PEFT).
- Padroneggiare i dettagli implementativi di Low-Rank Adaptation (LoRA) e degli adapter a collo di bottiglia.
- Valutare l'impatto del tuning con prefissi e del tuning con prompt sulla convergenza del modello.
- Analizzare i compromessi tra memoria e prestazioni in ambienti di fine-tuning con risorse limitate.